iT邦幫忙

0

DAY3:如何導入LLM?

2025-10-13 21:14:23125 瀏覽
  • 分享至 

  • xImage
  •  
  1. 首先要先安裝Transformers套件。
    https://ithelp.ithome.com.tw/upload/images/20251013/20169372cH5VcFn7mj.png
  2. 再來要登入HuggingFace Hub。(需先取得Hugging Face的Token)
    https://ithelp.ithome.com.tw/upload/images/20251013/20169372YI2cLqiKkg.png
  3. 接著我們要選擇欲使用的開源AI模型,本次將以Llama-3.2-3B-Instruct作為示範。(此模型需要先去HuggingFace簽署使用者同意書)
    https://ithelp.ithome.com.tw/upload/images/20251013/20169372go72JeXZCV.png

執行以上程式碼後,我們會從Hugging Face Hub下載tokenizer和model兩個物件。
tokenizer紀錄了模型所使用的token,而model則儲存了模型的參數。


成功導入我們要的LLM後,下一篇我們就要來了解LLM是怎麼學會語言的?


圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言